13. 加法和乘法注意力

以下哪些方法是有效的注意力评分方法?

SOLUTION:
  • 合并多个字符串/加法
  • 点积
  • 一般方法

使用点积作为评分方法的原因是什么?

SOLUTION: 在单词嵌入空间中,两个向量的点积可以用来衡量两个向量之间的相似性